iT邦幫忙

2023 iThome 鐵人賽

DAY 22
0
AI & Data

踏上AI的步伐系列 第 22

Day 22 深度學習與主要神經網路(五)-AE、GAN

  • 分享至 

  • xImage
  •  

自動編碼器

自動編碼器(Autoencoder,AE),一種用來降維的非監督式學習神經忘錄系統。

AE基本概念

  • AE透過重建輸入(Reconstruct)機制,將編碼器(Encoder)所壓縮輸出到隱藏層的第維度隱藏特徵(Latent Feature),並在經過解碼器(Decoder)解碼後,輸入後與原來的輸入特徵完全一樣的數據的一種神經網路。

AE主要步驟

  • 壓縮一個隱藏特徵:AE經過不斷的學習後,會找出一個最能代表原始數據特徵的低維向量,稱為隱藏特徵。
  • 解壓縮持原來的輸入:解碼器將低維的隱藏特徵「解壓縮」成原來特徵,如果其代表真實特徵的能力越強,則解碼器輸出的結果越像原來的輸出數據。
  • 重建誤差的極小化(Minimize Reconstruction Errors):重建誤差是指輸出的數據特徵和原來輸入的數據特徵中間的差異。AE為了要極小化重建誤差,會不斷修正網路內的參數,將重建誤差調至最小。

AE主要應用

  • 推薦系統:對電影來說,特徵有上百種。而AE可以透過降維將這些複雜的變數降為少數,例如:減少成10個特徵,每個組合式的隱藏特徵都是原來小特徵所組成。
  • 異常偵測:很多不常發生的異常狀況,像是引擎故障。就常常利用AE的重建誤差大小來判斷是否異常。如果一個異常的狀況輸入正常狀況訓練出來的AE後,其輸入與正常狀況相比較其重建誤差會很大。例如一個用手寫8訓練出來的AE,在輸入手寫2後,其模型的重建誤差就會很大。

生成對抗網路

生成對抗網路(Generative Adversarial Network, GAN)指一組「生成網路」(Generator)(產生新資料)與「判別網路」(Discriminator)(批判新資料),兩者之間不斷的協作對抗,而達成新的、高品質數據的一種非監督式學習方法,其架構如圖。
https://ithelp.ithome.com.tw/upload/images/20231007/20163100Q3R4RGUtlf.jpg

Z為隨機輸入,由生成網路,去產生一張假圖片,之後再傳給第二個判別網路(Discriminator),目的是來判別此圖像是否為真的人臉,如果判別結果認為差距太大,則會透過深度學習的反向傳播機制來要求生成網路調整權重重新來過,透過不斷的改進與批評,生成網路最終會趨近於真實人臉,判別網路也會越來越吹毛求疵,在經過雙方不斷拚搏後,最終會生成以假亂真的偽裝大師及神級的鑑定大師。


參考資料
人工智慧-概念應用與訓練 林東清 著


上一篇
Day 21 深度學習與主要神經網路(四)-RNN
下一篇
Day 23 深度學習與主要神經網路(完)-GAN
系列文
踏上AI的步伐30
圖片
  直播研討會
圖片
{{ item.channelVendor }} {{ item.webinarstarted }} |
{{ formatDate(item.duration) }}
直播中

尚未有邦友留言

立即登入留言